Отговорът на Facebook и Instagram на дълбоко фалшивото порно е в процес на преглед от неговия надзорен съвет
Надзорният съвет на Meta ще оцени начина, по който компанията се справя с дълбоко фалшивата порнография на фона на нарастващите опасения, че изкуственият интелект подхранва нарастването на създаването на фалшиви, явни изображения като форма на тормоз.
Надзорният съвет каза във вторник, че ще прегледа как Meta се е справил с две изрични, генерирани от AI изображения на жени публични фигури, една от Съединените щати и една от Индия, за да прецени дали компанията има подходящи политики и практики за справяне с такова съдържание — и дали налага тези политики последователно по целия свят.
Заплахата от генерираната от изкуствен интелект порнография привлече вниманието през последните месеци, като известни личности, включително Тейлър Суифт, както и гимназисти в САЩ и други жени по света, станаха жертва на формата на онлайн злоупотреба. Широко достъпните генериращи AI инструменти направиха по-бързо, по-лесно и по-евтино създаването на такива изображения. Междувременно социалните медийни платформи позволяват бързото разпространение на тези изображения.
„Дълбоко фалшивата порнография е нарастваща причина за основан на пола тормоз онлайн и все повече се използва за насочване, заглушаване и сплашване на жени – както онлайн, така и офлайн“, каза в изявление Хеле Торнинг-Шмид, съпредседател на надзорния съвет на Meta.
„Знаем, че Meta е по-бърза и по-ефективна при модерирането на съдържание на някои пазари и езици, отколкото на други“, каза Торнинг-Шмид, който е и бивш министър-председател на Дания. „Като вземем един случай от САЩ и един от Индия, искаме да проверим дали Meta защитава всички жени в световен мащаб по справедлив начин.“
Надзорният съвет на Meta е организация, съставена от експерти в области като свободата на изразяване и човешките права. Често се описва като вид върховен съд за Meta, тъй като позволява на потребителите да обжалват решения за съдържание в платформите на компанията. Бордът дава препоръки на компанията за това как да се справи с определени решения за модериране на съдържание, както и по-общи предложения за политика.
Като част от своя преглед, бордът ще оцени един екземпляр на генерирано от AI голо изображение, наподобяващо публична личност от Индия, което беше споделено в Instagram от акаунт, който „споделя само генерирани от AI изображения на индийски жени“.
Потребител съобщи, че изображението е порнографско, но докладът беше автоматично затворен, след като не получи преглед от Instagram в рамките на 48 часа. Същият потребител обжалва решението на Instagram да остави изображението, но докладът отново не беше прегледан и автоматично затворен. След като Надзорният съвет каза на Meta за намерението си да се заеме със случая, компанията реши, че е допуснала изображението да остане по грешка и го премахна поради нарушаване на правилата за малтретиране и тормоз, според борда.
Вторият случай включва генерирано от AI изображение на гола жена, която е опипвана, което е публикувано във Facebook група за AI творения. Изображението трябваше да наподобява американска обществена фигура, която също беше спомената в надписа на изображението.
Същото изображение е било публикувано преди това от друг потребител, след което то е ескалирано до експерти по политиката, които са решили да го премахнат поради нарушаване на правилата за малтретиране и тормоз, „по-специално за „унизителен сексуализиран фотошоп или рисунки“. След това изображението е добавено към банка за съвпадение на снимки, която автоматично открива кога изображения, нарушаващи правилата, са публикувани повторно, така че публикацията на втория потребител беше автоматично премахната.
Като част от този последен преглед Надзорният съвет търси публични коментари — които могат да бъдат изпратени анонимно — относно дълбоко фалшивата порнография, включително как подобно съдържание може да навреди на жените и как Meta е отговорила на публикации, включващи изрични изображения, генерирани от AI. Срокът за обществено обсъждане приключва на 30 април.
